阿西莫夫诞辰百年:人类的远望探头 | 社会科学报
阿西莫夫诞辰100周年纪念
优秀的科幻作品中所包含的是某种超越时代的精神,只有通过与时代的反复关联,才能发掘出其中的现实意义。今年是阿西莫夫诞辰100周年,如何在问题重重的当下重温其作品、正确认识他的遗产,值得学界深思。中国当前对阿西莫夫的研究不能仅停留在讨论他如何尊重科学,或者他的作品如何更好地普及了科学知识、科学精神这样的话语上,更重要的是,他所担忧和警惕的问题至今仍然具有现实意义。
原文 :《阿西莫夫:人类的远望探头》
作者 | 南方科技大学人文科学中心 吴岩/教授 陈发祥/研究助理
图片 | 网络
如何在这样的年代重温阿西莫夫的作品、正确认识阿西莫夫的遗产,应该是思想界关心的一个话题。可惜的是,在中国有关这个话题的讨论还很少。究其原因,可能是多年以来我们一直把阿西莫夫定位为一个科普作家或科幻作家,认为他的工作是为了维护科学精神,或者撰写虚构故事以繁荣文化产业。事实上阿西莫夫的作品和个人经历远远超越这样的定位。
在南方科技大学的想象力与科幻相关课程上,阿西莫夫会被当成一个思想家来介绍,因为他的创作早已超越了作品中所传递的科学知识,超越了故事中所虚构的内容,构成了一系列重要的思想。他的科幻作品中思想性最强的,就是他对机器人跟人之间关系的探索,以及被放大到宇宙尺度的大国治理和国际竞争。而他在过往的年代中所担忧和警惕的问题,至今仍然具有现实意义。
三大定律约束的不单单是机器人
机器人三大定律
任何人都无法绕过阿西莫夫机器人三大定律。这三大定律最早是在阿西莫夫1942年的短篇小说《环舞》中首次被完整提出的。三个定律的内容主要包括:
第一定律:机器人不能伤害人类个体或看着人类被伤害而袖手不管(LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.);
第二定律:机器人必须服从人类的命令,除非这些命令与第一定律冲突(LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.);
第三定律:在与第一、第二定律不冲突的情况下,机器人必须保护自己的存在(LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.)。
在1942年,人类的第一台“电子数字积分计算机”ENIAC(Electronic Numerical Integrator And Calculator)还没有问世,有麦卡锡、明斯基、罗切斯特和山农等参加的首次人工智能讨论会也还没有召开,但阿西莫夫已经凭借他的科幻作品讨论了这一学科的未来发展及其所必定要面临的重要问题。这个问题就是智能化时代人工造物研发和生产过程中最重要的方法学和内容范式。只不过,他没有撰写论文,而是通过一系列具象的故事,将这些思考、观念或关怀展现出来。这些思考并非技术实现,在他看来,更重要的是机器人或人工智能(至少在他的前期著作中无法区分)的发展,必须与社会变化、生产矛盾、人类发展的阶段性相互适应。定律约束的不单单是机器人,更是人工智能研发的阶段性状态下的人类本身。
暗含了智能机器作为后人类物种的法定性
如果斗胆以今天的观念表述方式来重新阐述三大定律,在这个意义上,我们认为,第一定律和第三定律主要讨论了自主系统的安全、可靠和可信问题。而第二定律则重点提出了“科技向善”和人工智能研发中的道德底线。当然,这仅仅是一个粗浅的比喻。事实上,每一个定律看起来用词简单,但内容覆盖却非常复杂,且可能含有多个层次。
例如,第三定律中提到机器人保护自己的安全,这看起来应该是定律中最次要的(放在了最后),但由于暗含了将人工智能当成一个自主的智慧体的含义,它应该处于三定律中最为核心的位置。只有自我意识产生之后的个体才能保护以我为核心的存在的安全。如果只有第一和第二定律,人工智能跟受控且不自主的机器没有两样,撰写这样的定律根本就是多余。但由于有第三定律的存在,前两个定律才得以被纳入。
因此,阿西莫夫的定律系统不是从前向后看的,而是从后向前看的。看起来配套齐全而设计严谨的第三定律,事实上就暗含了智能机器作为一个后人类物种的法定性,或者说,从某种意义上获得了“生理上”的平权。智能机器一旦在“天生”或“生理”上跟人类具有平等权利,那么最近几百年的人类历史便肯定会在这套人机关系发展线路上重演。
展现的是人类的集体无意识焦虑
在上述意义上观察阿西莫夫的机器人小说,我们可以把他的作品当成任何一部人工智能小说背后的一个原型小说。换言之,其基本内容会出现在众多其他人的作品之中。当我们拆解其他人的人工智能作品,一旦到达某种深度,我们看到的必将是三定律的展现,而更进一步则必将是第三定律的展现。按照荣格的想法,原型之所以存在,是因为它是构成人类的文化心理基因,展现的是人类的集体无意识焦虑。阿西莫夫则是人类的远望探头,在其他人没有将这种集体无意识解锁的时候,他已经敏锐地体验到了这种无意识的深度撞击。我们相信这种撞击是反复的。这就是他撰写这么多机器人小说以不断让它释放的原因。
不单单第三定律看起来非常重要,在今天,其他两个定律也显得恰逢其时。
以第一定律为例,机器人不能伤害人类个体或看着人类被伤害而袖手旁观。这条定律是人类在人工智能的设计过程中最可能放纵的部分。由于技术发展过程是小步子的积累,所以,在每一个小步中询问这种比较终极的问题,人们倾向于感觉好笑和无法回答。加强人工智能的视觉系统,违反了第一定律吗?增强他的行动能力违反第一定律吗?优化它的决策系统违反第一定律吗?没有。但如果长期组合这些进展,人工智能一旦抵近自主决策底线,将这些决策付诸行为的可能性就大为增强。因此,毋宁说第一定律是人类最忽视的。所以,即便不是最核心的问题,阿西莫夫仍然把它放在第一位进行撰写,作为未雨绸缪。
对这点,只要看看亚美尼亚和阿塞拜疆近期所进行的无人机战斗,看看美国在世界各地执行军事计划时采用的无人攻击设备的行动方式就可以明白。这些设备中大部分是自主系统,但他们会有差别地攻击人类!试想,如果这些机器中或者设计过程中有强烈的第一定律的严格覆盖,无人机一旦接到杀人指令的时候马上瘫痪,今天的政治版图和军事版图是否会是另一种不同的样子?这些都是无法回答的。我们只是想探问,阿西莫夫在撰写这一定律的时候是否知道未来的情况一定会超出他的想法,或者,他是否明白人类会因为自身的思维习惯和行为习惯,对这一定律毫不在乎?所有这些都值得阿西莫夫的研究者去进一步从资料中发掘,以便作出回答。
《基地三部曲》:消除冷战国际关系的全方位思想模拟实验
如果说阿西莫夫的机器人小说,在迄今至少半个多世纪之前就已经探讨了人工智能带给人类的焦虑,那么,他的银河帝国系列小说又具有怎样的跨时代意义呢?
银河帝国系列:对冷战焦虑的产物
银河帝国小说就是我们说的“基地”系列小说。这套小说的核心是最早创作的所谓三部曲,即《基地》《基地与帝国》和《第二基地》。这三部曲又由一些中短篇构成,曾经在杂志发表。但结集时大家常以《基地三部曲》合称。三部曲的核心当然是《基地》,而且应该是这一系列小说得以生发的故事最前端。
《基地》讲述的是一个有着两千五百万颗有人居住的行星的巨大区域,这就是所谓的银河帝国。帝国处于某种良好的治理状态长达一万两千年。由于管理得当,人民安居乐业,人口的繁殖已经近千兆亿。但是,一种横跨人文与科学交织领域、从心理测量、历史数据分析到数学公式使用的全新预测方法出现了。预测方法的创立者是心理史学宗师哈里·谢顿。根据他的数学架构,帝国灭亡已经迫在眉睫。在“基地”系列的历史轮回思想引导下,谢顿计算出帝国灭亡之后人类将会有三万年黑暗时期。这真是一个莫大的讽刺。良好的治理仅仅存在了一万多年,到来的灾害丛生且民不聊生的黑暗时代却长达三万年。不过,谢顿不是巫师,而是科学工作者。他还计算出,如果人类找到合适的方法出面干预,这种状态可以被缩短到仅有一千年。
在众多研究阿西莫夫小说的论文中,阿西莫夫模仿罗马帝国兴亡史建构银河帝国未来史的说法特别流行。此外,从宿命论、历史决定论角度探索他的哲学起源的作品也很多。所有这些说法都是很有启发性的。但如果考虑创作的时代背景,就可以很明显地看到,这部小说其实是对冷战焦虑的产物,是对世界改变面貌、变得不再繁荣的焦虑的产物。
我们实验性地把谢顿领导的基地跟外部提供强大压力的帝国力量对等起来(事实上作者就是这么对等的,且在结尾让帝国的治理方式被基地的治理方式所取代),可以观察到小说中冷战(在作品中是弱小一方面对强大一方)各方所采取的完整策略的展现。考虑到基地跟帝国自始至终没有发生大规模的战争,在这个意义上,无论阿西莫夫有没有意识到,《基地三部曲》就是对冷战或消除冷战国际关系的一种全方位思想模拟实验。使命感驱使着的谢顿和他的追随者在银河系的边缘建立起端点星。端点星是一个基地,用来面对强势的银河帝国。敌强我弱,远走他乡的端点星居民韬光养晦,他们一方面看群雄崛起、鹬蚌相争,另一方面极力保留自己的空间并积蓄实力。随着力量的此消彼长,他们不但会在恰当的时候采用商业规律制衡对手,更会以科技展现出的实力来制胜对方。在国际关系中他们巧用连横合纵,更懂得要等待对方自身的弱点爆发。他们理解人的重要性。面对颠覆性创新,他们巧用人文和社会科学,最终战胜了敌人。
未雨绸缪是战略成功的关键
阿西莫夫在银河帝国小说中最让人钦佩的,是他对时间、时机、实力等概念的使用。要在时间上将三万年压缩到一千年是小说中端点星人的目标所在。如果说今天的世界正在逐渐陷入冷战的窠臼,那么阿西莫夫的思路是否提供了一种解决问题的方案?从长远的发展上去理解和思考时间,他提出让强势在时间中化为弱势。所有这些都值得今天的国家管理者去认识和思考。
时机是“基地”系列小说中另一个重要的概念。从谢顿跟帝国之间的交涉,到谢顿给端点星设置的发展阶段,到每一个阶段的处置方式,都透露着对时机的把握和运用。在故事中,凡是把握好的时机都会带来自身的成长,反之则是鲁莽的失败。为了强调时机,阿西莫夫还采用锦囊妙计的方式,给后人以方针政策,让他们站稳脚跟、面对强敌。
相比时间和时机这种完全无法控制只能把握的因素,阿西莫夫更强调可控因素的掌控,认为这才是战略成功的关键因素。从编纂《百科全书》去保全知识,到通过端点星保全人才,再到通过运作去保存实力,未雨绸缪是小说中蕴含的战略成功的关键。没有对基地的设计,就没有第一波战略缓冲时间的获得,而没有对第二基地的设置,就无法在新危机出现的时候做出合理和紧急应对。
从战略思维、冷战、国际关系等方面去研究“基地”系列小说,能得到许多管理学和战略科学方面的启示。我们甚至可以引用华为和鸿蒙作为例子。略微有点遗憾的是,阿西莫夫站在上一次冷战的开始节点对未来的一系列看法,并没有被上一次冷战的参加者所认真理解,这是一个巨大的损失。但如果现在我们坐失良机,忽视他作品中的含义,可能也会在未来后悔。
虽然我们还没有看到更多关于阿西莫夫作品跟冷战关系的论述,但有些故事可以作为佐证。在上世纪60-80年代,西方科幻作家的政治观点分野明显。罗伯特·海因莱因是主战的,而阿西莫夫和克拉克、波尔等是主和的。主战派觉得意识形态之间应该决一死战,主和派则认为,国际秩序需要通过友好的协商来确定,需要通过理解对方,共同增进人类福祉来解决。主和派中的阿西莫夫不喜欢坐飞机,所以没有能参加在日本和欧洲分别举办的、沟通东西方作家关系的科幻大会,但他还是身体力行地发表文章,通过民间对另一个世界表示友好,在这些方面做了许多工作。我们觉得,恰恰阿西莫夫这样的有社会责任感且有智慧的作家,主张通过非战争手段进行社会建构,会在一定程度上影响到上层决策者,阻止了他们将这场冷战发展成热战的进程。而阿西莫夫提倡的用沟通、发展、尊重科学等方式去解决当前问题的做法,至今仍然是维护国际关系的一个标准的、益多害少的做法。
技术-文化-社会-个体复杂关系的具象化
阿西莫夫除了两个备受推崇的系列小说之外,还有大量未被纳入两大系列的小说,这些小说也有丰富的现实意义。《黄昏》中强调,对灾难过程要多做社会动力学分析,才能更好地处置灾难。《他们的乐趣》和《丑小孩》中对教育技术化带来的人类情绪困扰和天才儿童教育中发生的问题多有预警。《最后的问题》中暗含的对强人工智能产生的非图灵式测试的可能性。《奇妙的航程》中探索的纳米生物医学治疗,可以作为未来维持人类健康的良好辅助。所有这些都是技术-文化-社会-个体之间复杂关系的故事化具象化展现。对这些小说我们需要做单独处理,一个一个地分析其中含有的时代价值。
在阿西莫夫诞辰100周年之际,我们想说,中国当前对阿西莫夫的研究不能仅停留在讨论他如何尊重科学,或者他的作品如何更好地普及了科学知识、科学精神这样的话语上。优秀的科幻作品所包含的是某种超越时代的精神。这种精神只有通过与时代的反复关联,才能发掘出其中的现实意义。在这个意义上,阿西莫夫作为一个人道主义者和未来主义者的特征才能被彻底彰显。
文章为社会科学报“思想工坊”融媒体原创出品,原载于社会科学报第1735期第6版,未经允许禁止转载,文中内容仅代表作者观点,不代表本报立场。
《社会科学报》
2021年征订开始啦!
01
《社会科学报》简介
《社会科学报》是经原国家新闻出版署批准的面向国内外公开发行的全国首家综合性人文社会科学的专业报刊,是社会科学界交流思想、展示成果、推动社会进步的重要阵地。
1985年,《社会科学报》作为一份为人文社会科学理论工作者、专业社会科学研究人员提供学术对话、思想交流、理论争鸣平台的专业性报纸,创立于上海社会科学院。
三十余年来,作为理论研究成果的展示平台和宣传阵地,《社会科学报》以“思想性、问题性、前沿性、信息性”为目标定位,践行学术标准和宣传原则,坚持在突出主流价值的同时提供多重视角,在贴近现实热点的同时把握长远方向。
02
订阅价格
定价1.5元/份,月度订阅价6元,全年订阅价72元。
03
订阅方式
读者请向各地所在邮局(所)订阅,或者通过中国邮政APP、中国邮政微邮局、中国邮政官网等进行网上订阅。
邮发代号:3-62
国内统一刊号:CN31-0034
如果在订阅过程中遇到困难或疑问,请联系我们:
电话:021-33165492
Email:xiaohaodong@sass.org.cn
地址:上海市淮海中路622弄7号社会科学报社
拓展阅读
视域 | “黄昏并不意味着昏暗”:刘慈欣科幻小说中的“宇宙伦理”